Ngày 5 tháng 8, chiến sự đã diễn ra ở khu vực ngoại vi. Đến ngày 8 tháng 8, Odessa đã bị bao vây từ hướng Tây và hướng Bắc, chỉ còn hướng Đông và hướng biển vẫn do Phân hạm đội Odessa của hạm đội Biển Đen trấn giữ. Đến ngày 10 tháng 8, các đơn vị quân đội Liên Xô tại Odessa đã lập tuyến phòng thủ gồm nhiều lớp trên các hướng tiếp cận vào thành phố. Hàng trăm nghìn người dân đã tham gia xây dựng tuyến phòng thủ thành phố gồm ba lớp, lớp ngoài cùng cách trung tâm thành phố 20 đến 25 km, lớp giữa cách trung tâm từ 10 đến 14 km và lớp trong cùng cách trung tâm từ 6 đến 10 km. Khoảng 250 chướng ngại vật chống tăng đã được lắp đặt.

Các chỉ huy cao cấp của quân Đức giao cho tập đoàn quân Romania 4 làm lực lượng chủ lực đánh chiếm Odessa. Tập đoàn quân này có 12 sư đoàn bộ binh và 7 lữ đoàn (có 4 sư đoàn người Đức). Ngày 20 tháng 8, lực lượng này được tăng viện thêm 5 sư đoàn quân lấy từ tập đoàn quân Romania 3

Ngày 11 tháng 8, 3 sư đoàn bộ binh, một sư đoàn kỵ binh và 2 lữ đoàn thủy quân lục chiến bắt đầu kịch chiến với tập đoàn quân Romania 4. Các cuộc phản kích của kỵ binh Liên Xô đã đẩy lùi cuộc công kích chính diện của quân Romania tại lớp phòng thủ ngoài cùng. Ngày 13 tháng 8, quân Đức và Romania đã đột phá đến bờ Biển Đen ở phía đông thành phố, Odessa hoàn toàn bị cắt đứt liên lạc trên đất liền với Phương diện quân Nam. Ngày 15 tháng 8, quân Romania thay đổi chiến thuật, mở hai mũi vu hồi từ hướng Tây Bắc và Đông Bắc vào hai bên sườn Tập đoàn quân độc lập Duyên Hải nhưng vẫn bị chặn đứng trước tuyến phòng thủ thứ hai.

Chiếc tàu ngầm M-269 và một số khẩu pháo đã được sử dụng trong cuộc phòng thủ 73 ngày tại Odessa năm 1941. (Hiện vật của bảo tàng Odessa).

Để tăng viện cho Odessa đang bị bao vây, ngày 15 tháng 8, đại tướng G. K. Zhukov đã lệnh cho Phó đô đốc F. S. Oktyabrsky chuyển thuộc căn cứ hải quân Odessa cho Tập đoàn quân độc lập Duyên hải, điều động các tàu vận tải vận chuyển vũ khí, đạn dược, thiết bị quân sự, nhiên liệu và hàng tiếp tế cung cấp cho quân phòng thủ. Lực lượng phòng thủ ban đầu chỉ có hai sư đoàn bộ binh và một sư đoàn kỵ binh. Trung tuần tháng 8, hạm đội Biển Đen đã vận chuyển đến đây sư đoàn bộ binh 421, 2 lữ đoàn hải quân đánh bộ, vài chi đội thủy thủ với quân số khoảng 10.000 người, nâng tổng quân số phòng thủ lên khoảng 34.500 người. Tướng I. E. Petrov đã sử dụng hai lữ đoàn hải quân đánh bộ 33 và 60 của các trung tá D. I. Surov và B. V. Kudriavshev cùng với tàu ngầm bịt chặt các hướng ra vào Odessa từ phía biển. Cuối tháng 8, sau khi đã sơ tán toàn bộ trẻ em, người già và phần lớn phụ nũ không có nhiệm vụ, đã có 2.400 đàn ông trong thành phố tình nguyện tham gia vào lực lượng phòng thủ.

Ngày 20 tháng 8, quân Đức và Romania tiếp tục tấn công nhưng vẫn bị chặn đứng trước phòng tuyến thứ hai trong gần một tháng. Một phần lớn quân Đức và Romania thương vong do hỏa lực mạnh từ các pháo hạm của Hạm đội Biển Đen. Để đáp trả, không quân Đức tăng cường oanh tạc thành phố bằng máy bay ném bom và đánh phá các pháo hạm Liên Xô bằng máy bay thả ngư lôi. Hạm đội Biển Đen (Liên Xô) cũng sử dụng có hiệu quả các máy bay ném bom gây nhiều thiệt hại cho các đơn vị thiết giáp và pháo binh Romania.

Sau khi quân Romania đột phá đến bờ biển phía Đông thành phố, tướng Eugen Ritter von Schobert, tư lệnh tập đoàn quân 11 (Đức) đưa quân đoàn 50 còn nguyên vẹn mở cuộc tấn công qua cửa sông Kuyal sâu từ 4 đến 5 km, uy hiếp hướng Đông Bắc khu phòng thủ Odessa và tăng cường thêm ba trung đoàn pháo hạng nặng đánh phá thành phố. Để tăng cường phòng ngự ở hướng này, Hạm đội Biển Đen đã vận chuyển sư đoàn bộ binh 157 từ Novorosiysk tiếp tục tăng viện cho Tập đoàn quân độc lập Duyên Hải.

38 nghìn sĩ quan và binh sĩ quân đội Liên Xô đã được tặng thưởng huy chương Vì sự nghiệp chiến đấu bảo vệ thành phố cảng Odessa.

Ngày 22 tháng 9, cụm quân Romania đang tiến công tại khu vực phía đông đã bị phản công bất ngờ bởi ba trung đoàn hải quân đánh bộ Liên Xô của giang đoàn Danube do Phó đô đốc Gorshkov chỉ huy. Hai tiểu đoàn đổ bộ đường không do trung tá Grigoriev chỉ huy đã được thả xuống sau lưng quân Romania. Kết quả của các cuộc phản công này đã làm cho quân Romania tổn thất lớn, 2 sư đoàn bị thương vong nặng và bị đẩy lùi từ 5 đến 8 km. Liên quân Đức-Romania mất các vị trí thuận lợi để triển khai pháo binh bắn phá khu cảng Odessa.

Mặc dù mọi cố gắng đánh chiếm Odessa của liên quân Đức-Romania đều không đạt kết quả nhưng các diễn biến tại mặt trận Ukraina lại rất phức tạp. Thừa thắng sau trận bao vây và đánh tan 3 tập đoàn quân Liên Xô tại phía Đông Kiev, Cụm tập đoàn quân Nam (Đức) đã đột kích vào Donbas và Krym, đánh chiếm Kharkov, uy hiếp căn cứ hải quân Sevastopol. Bộ Tổng tư lệnh tối cao Liên Xô buộc phải lựa chọn và trong trường hợp này, họ quyết định bỏ Odessa để tăng cường phòng thủ của Krym và giữ Sevastopol. Ngày 30 tháng 9 năm 1941, Bộ Tổng tư lệnh Liên Xô điện cho tướng I. E. Petrov: "Phối hợp với Hạm đội Biển Đen rút quân khỏi Odessa đến phòng thủ bán đảo Krym càng sớm càng tốt".

Từ ngày 1 đến ngày 16 tháng 10, Hạm đội Biển Đen đã tổ chức vận chuyển các đơn vị của Tập đoàn quân độc lập Duyên Hải từ Odessa về Sevastopol. Các cuộc chuyển quân dược tổ chức bí mật về ban đêm trong suốt hai tuần nên hầu như không bị tổn thất về người, vũ khí và phương tiện. Cuộc phòng thủ dài 73 ngày của quân đội Liên Xô tại Odessa kết thúc. Tập đoàn quân Romania 4 đánh chiếm thành phố. Tập đoàn quân 11 (Đức) lại một lần nữa phải đối đầu với Tập đoàn quân độc lập Duyên Hải (Liên Xô) tại bán đảo Krym và căn cứ Sevastopol.